Agentic ESOpt: Fine-Tuning Long-Horizon LLM Agents with Minimal GPU Requirements
Agentic ESOpt：以最小 GPU 需求微调长程 LLM Agent
🧭 Agent 微调 · Evolution Strategies ★ 深度解读
National University of Singapore · Southern University of Science and Technology · University of Oxford
用进化策略替代强化学习微调长程 LLM Agent，仅需推理级显存并支持 prompt-参数协同演化
📌 工作参考价值（4 点）
- 长程、稀疏奖励的 Agent 业务（多轮对话推荐、工具调用、自动化工作流）可考虑用 ES 全参数微调替代 GRPO/PPO：只需推理级 GPU 内存，适合无法承载 RL 反向传播的大模型。
- 实现 trick：只存噪声种子、in-place 加减扰动量；每批采样后用 z-score 归一化 reward 再加权更新；扰动半径 σ 用余弦衰减，train-time 保留非零 σ_T 防止过拟合，test-time 衰减到 0。
- prompt-space 优化（如 Trace2Skill、EoH）与参数优化共享同一批 rollout，交替更新 prompt 和参数，可迁移到自动 heuristic/策略设计或线上 prompt-参数协同调优。
- 根据模型能力调整 ES population：强 backbone 可能只需较小 G，能进一步降低采样成本；在 4B 上 G=8→16 提升巨大，但 9B 上提升极小。